小贤推荐：昨晚，一款名为 ZAO 的 APP突然爆火，朋友圈被各种 AI 换脸视频刷屏，ZAO 也借此一夜之间收获了 100万+ 的用户量，并登上微博热搜。
然而，有网友爆出，ZAO 的用户协议居然公然写着“允许 App 获得肖像权的使用权和改动权”。这一条款引发了巨大争议，也引来了灰产质疑。
要知道，目前AI 换脸灰产已经形成了完整的产业链，包括视频定制、软件教程，甚至提供售后服务。
ZAO 会用我们的肖像去做什么？ZAO 的背后到底暗藏着怎样的灰色产业？这让人细思极恐......今天这篇文章，我们一起来扒一扒。
本文授权转载自公众号：智东西（zhidxcom）
随着 AI 换脸技术的不断发展，围绕 AI 换脸已经形成了一条完整的黑色产业链，100 元打包 200 部换脸情色片，囊括国内一二线女明星，5 张照片就可以帮你定制换脸视频，400 元就可以购买换脸软件及教程并包教包会……从下游成品情色视频、中游定制视频到上游软件及教程都有提供，有的卖家甚至提供全产业链产品和售后服务。据部分卖家透露，现在定制视频要排队，因为前面有很多人也有这个需求，可见 AI 换脸黑产已经发展到一定程度。为了调查传闻中的 AI 换脸地下产业链，我也是煞费苦心，在浏览了各个论坛的公开信息之后，我锁定了三个主要的 AI 换脸黑产平台：淘宝、闲鱼、贴吧。我分别在淘宝、闲鱼、贴吧这三个 AI 换脸比较活跃的平台进行了调查，发现这三个平台目前对于 AI 换脸都已经加强了审核力度，不再像前一段时间搜 AI 换脸出现很多结果，且三个平台侧重点并不相同。例如在淘宝输入“AI 换脸”，前 10 个返回的店铺只有一家是做 AI 换脸的，而且只提供教程并不提供成品视频售卖。在返回的所有店铺中，只发现了 7 家经营 AI 换脸的店铺，大部分都只提供软件及教程并不提供成品视频。在闲鱼搜索 AI 换脸干脆没有任何搜索结果，于是我机智的把 AI 去掉只搜索换脸（去掉换脸只搜 AI 也没有相关结果）。这时闲鱼搜索结果的第一条就是 AI 换脸的店铺，在所有返回结果中，大部分都只做图片换脸，也有一小部分标注不太明确的售卖换脸软件和成品视频。AI 换脸吧、deepfake 吧和 fakeapp 吧截图贴吧算是三个里面AI换脸最容易找到的地方，我先后潜入了AI 换脸吧、deepfake 吧和 fakeapp 吧，这三个是目前涉及 AI 换脸比较活跃的吧。AI 换脸吧比较直接，发帖内容多是售卖成品视频或是软件教程，有的人也发帖收徒不过都是收费的。deepfake 吧发的帖子有售卖视频、教程的，也有利用AI换脸制作一些搞笑视频或图片分享的。fakeapp 吧则相对单纯的多，内容多是以技术交流为主，例如软件使用过程中的问题等，不过用软件做什么遇到了问题就不得而知了。三个平台大多并不直接交易，大部分都是通过这三个平台最后引流到QQ和微信。记者从三个平台成功联系到 10 个卖家，其中 2 个来自于闲鱼、4 个来自于淘宝、4 个来自于贴吧。在和卖家沟通并取得信任后，我都会问基本相同的问题，例如售卖内容、价格、是否可定制、用的是什么软件等。经过我们的调查，AI 换脸黑产目前还主要停留在三个阶段，即售卖成品情色视频、售卖定制视频和售卖软件及教程。综合多个卖家的信息，成品情色视频价格从 2 元 1 部到 30 元 46 部、100 元 150 部和 100 元 200 部不等，一般都是打包售卖。据卖家说，成品视频以国内一、二线女明星为主。有意思的是，也许是为了证明换脸效果，一般加上一个卖家的 QQ 或微信后，部分卖家会给我先发一段成品羞耻小视频，也有的卖家比较谨慎只给我发了拍摄的截图等。一开始我是拒绝的，不过一想为了工作，我也就抱着牺牲自我的精神义无反顾的都看了一遍，从视频和截图看，换脸效果确实都还不错。定制视频的价格相对贵上一些，据部分卖家透露，定制视频一般 1 小时 200-300 元，低于 1 小时一律 100 元，也有的卖家按分钟计价，1 分钟 20-80 元。不过定制视频流程很简单，只需要你提供 5 张左右照片就可以，据卖家说收费这么贵主要是一部定制视频需要渲染很长时间。一般 10 分钟的定制视频需要2小时左右，而一部长片至少需要十几个小时才能出成片。软件和教程相对于成品视频和定制视频价格上就要贵不少，从多个卖家的报价看，教程一般的售价在 300-400 元左右，大部分卖家教程标价都是 400 元，而且保证 1-3 天学会，大多附带后续的指导。不过对于想要自己学习制作视频的人，卖家一般都会提醒说至少需要游戏级的配置，最低 2G 显存，GPU 最好为 4GHZ。不过这些卖家都只能称为普通卖家，在接触到的卖家中，有两个微信卖家路子比较野。一个来源于淘宝，这个卖家提供云处理功能，没错确实是云处理，利用它的软件进行视频处理时在他们的服务器上运行，不要求你的电脑性能。相关软件和教程也分为三种，分别是 128 元本地软件无需联网、298元服务器 15G 空间版本和 368 元无限空间版本，其中 368 元版本包括月租 38 元的 VPN、月租 450 元的谷歌服务器和无限期售后服务。还有一个卖家来自闲鱼，这个卖家除了成片羞耻视频还售卖国外 APP 下载链接和邀请码，据他所说，网站经常被封，这种方式比较安全。从他提供的视频看，这款 APP 专门有一个换脸专区，里面有大量的成品视频，不过应该并不都是他们自己制作的，因为有的视频和别的卖家提供给我的是一样的。有意思的是，通过观察这两个卖家的朋友圈我发现，他们经常会发一些“AI 换脸是为了技术交流，绝对不涉黄、违法等”的内容。嗯，怎么说呢，你前一分钟刚和我聊完 AI 换脸羞耻小视频卖多少钱，后一分钟就发这个，只能说此刻我的内心是复杂的。从我调查的这 10 个 AI 换脸卖家来看，他们的经营范围和段位各不相同。低端玩家只卖一些成品小视频，而且还不一定是他自己做的，可能就是买的多了也想自己捞回点本。中端玩家增加了定制小视频功能，需要你提供一定的照片素材，能够帮助你实现“女神演毛片”。高端玩家除此之外还提供软件及教程，收徒教学，全程售后服务，体贴细致。骨灰级玩家只提供教程，而且操作在云端，甚至自己开发软件，可以说是处于产业链的上游了。从调查来看，目前 AI 换脸黑产还主要是在地下发展生存，具体规模不好估计，主要通过淘宝、闲鱼、贴吧进行引流。不过据一位淘宝店主透露，如果我想要定制视频那么就需要排队，而且短期内很难排到，这也在一定程度上说明了问题。好莱坞女星“被下海”，朱茵变杨幂
这个“自动编码器”实际上是一个深度神经网络，它能够接收数据输入，并将其压缩成一个小的编码，然后从这个编码中重新生成原始的输入数据。举个例子，如果你想把视频 A 中的人物 b 换成人物 c，那么首先需要对视频 A 进行逐帧切片，并把没有人物 b 的帧删掉，然后还需要提供人物 c 的大量图片或视频，方法同上。之后深度学习算法会提取人物 b 每帧的特征，我们将之命名为 feature b，找到人物 b 变换成 feature b 所需的光照、扭曲等条件。之后对人物c进行基于feature b的转换，形成 feature c，然后用 feature c 替换 feature b 即可。换脸技术并不是一种新技术，在影视剧制作中早已有之，例如《速度与激情7》里为了让保罗·沃克回归就用了视频换脸技术。不过早期影视剧制作中的换脸需要剪辑师和 CGI（电脑三维动画）专家长时间的复杂工作，所以并不具有推广普及的基础。但是 AI 换脸出现的时间却并不长，这一切都要从 2017 年 12 月一位叫 deepfakes 的哥们说起。当时他把情色电影里的女主角换成了好莱坞明星盖尔·加朵，这也是人们第一次见识公开见识到 AI 换脸这项技术。
deepfakes在Reddit上上传的部分换脸视频
这位哥们致力于在 Reddit（知名在线论坛）上分享其利用AI技术制作的明星换脸小视频，被他用 AI 换脸搞过的明星和名人数不胜数，既包括大部分的好莱坞明星，也包括川普这样的政治人物。之后由于大量“受害者”的投诉，Reddit 迫于压力封杀了 deepfakes 的账号，不过这次封杀却让 deepfakes 直接开源了其 AI 换脸项目的代码。首先需要在谷歌等网络图集中收集你想要替换的人物各个角度的视频和图片，组成一个能满足深度学习任务进行脸部替换的素材库。然后通过 TensorFlow 或 Github 上提供的机器视觉相关模型，学习和理解原版羞耻小电影中女主角的面部特征、轮廓、动作和嘴型等等。继而让模型在素材库中寻找各种角度、各种表情下 AI 认为合适的图片与视频，对原本视频进行替换。据部分用户用 deepfakes 的方法制作之后反应，AI 换脸其实非常简单，只要具备基础的电脑知识同时电脑本身配置满足要求，那么即使只是一个新人也能在几个小时内做出一部换脸视频，不过这时候的AI换脸还比较粗糙且主要做国外流行。之后人们为了纪念这位老哥的贡献，也用他的名字命名了 AI 换脸技术，称之为“deepfakes”。AI 换脸真正在国内火起来还要说今年年初，B 站 UP 主“换脸哥”发布的一段94版射雕英雄传视频。视频中，原本饰演黄蓉的演员朱茵的脸被替换成了杨幂的脸，从流出的视频和动图看，虽然是用AI合成的，但是整体效果十分逼真。饰演黄蓉的朱茵的脸被替换成杨幂
这件事在国内最大的影响就是让 AI 换脸被普通人所熟知，也正是这件事，促进了国内的 AI 换脸黑产逐渐发展壮大。自 AI 换脸出现之后，相关的争议就没有停止过。AI 换脸技术的“始祖”deepfakes 正是因为其作品涉及相关人物的名誉及相关作品版权问题而被封禁。“受害者”之一好莱坞女星斯嘉丽·约翰逊在接受《华盛顿邮报》采访时，发表了自己对于 deepfakes 的愤怒看法。她表示，“每个国家都有自己的法律，即使你拥有自己形象图片的版权，在别的国家也不一行适用，面对充斥网络的AI换脸情色片，她和她的团队无能为力。”在国内，“换脸哥”发布杨幂版射雕英雄传之后，迅速在网上发酵并引起了轩然大波，B 站视频截止删除前点击量超出 20 万，微博话题阅读量更是达到了 1.3 亿。不过随着话题逐渐变热，批评和指责也随之而来，以微博杨幂官方粉丝团为代表的博主认为 AI 换脸侵犯了公民个人肖像权。而且，如果任由这项技术发展，那么在当今这个 AI 人脸设别技术越来越先进的情况下，普通人尤其是普通女孩子的个人隐私也就受到威胁。也有一些微博用户认为，把电视剧中朱茵的脸换成杨幂的脸只是为了技术交流，也是为了表达对偶像的喜爱，只要这项技术不用在一些涉黄、违法的事情上，那么就没有什么大不了的。还有一些人观点独特，认为小鲜肉终有有救了，希望这种技术能推广一下，可以不用再看到僵硬、面无表情的表演了……有人认为 AI 换脸是一个技术上的进步，但是目前来看用错了地方，还需要政府部门立法和监管；也有人认为AI换脸挺可怕的，想想也许有一天你的脸也被 AI 换掉了就让人不寒而栗，但是技术本身可能并没有问题。视频制作者肖先生也在第一时间撤下了该条视频并回应了此事。肖先生（换脸哥）说自己只是出于爱好，并未利用此视频进行营利，主要还是想让更多人认识这项技术。监管部门也已经注意到 AI 换脸、AI 脱衣等应用的危害性。今年 4 月提交十三届全国人大常委会第十次会议审议的民法典人格权分编拟规定，任何组织或个人不得以利用信息技术手段伪造的方式侵害他人的肖像权。5 月底，国家网信办会同有关部门发布《数据安全管理办法（征求意见稿）》。其中要求，网络运营者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息，应以明显方式标明“合成”字样；不得以谋取利益或损害他人利益为目的自动合成信息。政府部门的这两个动作也表明，关于 AI 换脸等的法律文件或将出台，未来如果再利用 AI 换脸、AI 脱衣等应用进行相关操作损害了他人利益的或涉及侵权违法。换脸黑产已成完整产业链
在 AI 换脸刚刚出现的时候，更多的是给某个电视剧或者电影的主角脸换成自己喜欢的明星或者自己想看的人的脸。不过，随着 AI 换脸技术的不断发展，基于deepfakes 的应用也越来越多，知名的例如 fakeapp、deepnude、faceswap 等，这些应用的出现也降低了使用者的门槛，许多电脑小白也能在短期内学会如何进行 AI 换脸。门槛降低带来的也就是鱼龙混杂，有一些人专注于研究、分享自己的换脸作品，出于爱好或是出于玩乐。也有一些人看到了这里面的“商机”，于是对情色片进行换脸并打包售卖，最受欢迎的当然就是女明星，据有的卖家透露，其换脸作品几乎囊括国内所有一二线女明星。在国内，AI 换脸俨然已经形成了一个黑产产业链，上游提供软件及技术、中游提供视频、照片定制、下游售卖成品视频，也有的商家做全产业链的生意。从我调查来看，部分卖家供不应求，求之者众，黑产规模可见一斑。不过也不能因此就否认 AI 换脸，AI 换脸的出现可以说是影视剧行业的一个惊喜，这项技术有助于帮助解决影视剧行业传统换脸技术成本高、工作复杂、换脸时间长等问题。同时，AI 换脸的出现还普及了这项在许多人看来高大上的技术，毕竟换脸技术由来已久，AI 换脸只是以用一种更简单、更易推广的方式出现，这件事本身对于 AI 技术的发展是一个推动作用。例如之前有一部电视剧《封神演义》，这部电视剧其实早在 2015年 就已经拍摄完成但直到 2019 年才播出。其中一个原因就是“限韩令”导致不得不为饰演费仲的演员韩国人金江日换脸，如果使用 AI 换脸，那么效率相信会高出不少。从以上所有的案例我们可以看出，目前 AI 换脸还处于一种“薛定谔的猫”的状态。在你完全了解这项技术之前，你不知道它会带来什么，不过有一点可以肯定，那就是技术本身是无罪的，有罪的只是那些心怀不轨的人。也许当初 deepfakes 自己都没有想到，他的一个换脸视频能带来这么大的影响。从美国到中国，AI 换脸的受众越来越多，受害者也越来越多，美国好莱坞明星和中国一二线女明显都难幸免。AI 换脸技术做为一种深度学习算法，简单地说就只是代码和数字。通过这个算法可以把视频或照片中的人脸替换成另一张人脸，其本身并不涉及违法或是侵犯隐私等问题。不过许多人却在利用这项技术进行非正常牟利，他们利用这项技术的入门门槛低和一些人心中的小心思大量生产情色换脸视频，进行兜售，更有甚者直接出售软件和教程。面对这种乱象，也许只有政府层面的监管和约束才能有效遏制 AI 换脸黑产的持续蔓延。技术的发展总是伴随着各种问题，不急于否定、采优去劣或许才是一种正确的态度。正如上面的吃瓜群众所说：“技术本身没问题，只是用错了地方。”· 运 · 营 · 地 · 图 ·
2019 最硬核的运营秘笈「运营技能地图」！相信我，这份实力与颜值并存的地图，每次打开都会有意外的收获与惊喜！！扫描下方二维码快来购买吧！
▲
扫描上方二维码回复「精品」
即可获得运营社 3 年精品文章合辑
155 篇硬核干货解决你 90% 的问题